Think-to-Personalize: Unifying Reasoning and Retrieval for User-Centric Personalized Dense Retrieval
Think-to-Personalize:统一推理与检索的用户中心个性化密集检索
🧭 LLM 推理驱动的个性化查询改写与密集检索 ★ 深度解读
University of Science and Technology of China · Meituan
提出 TTP 框架,用 LLM 显式推理用户历史生成意图增强查询,并与密集检索端到端联合训练,线上订单量提升 0.46%
📌 工作参考价值(4 点)
- 端到端联合优于解耦流水线:把 LLM 生成的 intent-enhanced query 与共享检索编码器联合训练,比独立 rewrite-then-retrieve(Decoupled-Stage)在 General 上 Recall@20 高 1.63 个点,Broad 上高 3.66 个点;电商搜索/召回链路若已有 LLM 改写模块,可尝试将其嵌入检索塔共同优化。
- 意图增强数据构造可复用:用大模型按偏好抽取、意图消歧、查询纠正三类进行改写,生成 5 候选,再用 reranker 按 ground-truth 成交商品过滤并采样 top3,同时保留不改写样本防止过度个性化;这套流程可直接迁移到搜索 query 改写、搜索建议或 push 文案生成。
- RL 对齐的两个关键 trick:GRPO 中用冻结 SFT 模型计算检索奖励,避免 reward hacking(unfrozen reward model 导致平均 R@20 从 44.97 暴跌到 29.53);奖励用 ΔS_pos + ΔS_margin 两项,并动态选择奖励最大的 rollout 作为对比正样本,显著稳定训练。
- 在线效率方案:head query 走离线个性化 cache(覆盖 10.59% QV),miss 用蒸馏 305M 双塔实时服务,蒸馏时加入 <q_r, p+> 和 <q, q_r> 目标,保留大部分效果(平均 R@20 43.10 vs 教师 44.97),端到端延迟仅增 0.15ms,适合大规模部署。